Sang đầu thế kỷ 16, nhà Hậu Lê bắt đầu suy yếu. Tướng Mạc Đăng Dung đứng ra trấn áp các cuộc nổi dậy bên ngoài, nắm lấy quyền hành triều Lê. Sau đó, ông đánh dẹp các lực lượng chống đối và đến năm 1527 thì được phong làm Thái sư An Hưng vương. Không lâu sau, ông phế truất Lê Cung Hoàng, lập ra nhà Mạc.

Các lực lượng thân nhà Lê chưa bị loại bỏ hết. Sau khi Trịnh Ngung và Trịnh Ngang cầu viện nhà Minh không thành và hoàng thân Lê Ý khởi binh thất bại năm 1531, Hữu vệ điện tiền tướng quân An Thanh hầu Nguyễn Kim tiếp tục tập hợp lực lượng chống Mạc.

Năm 1529, Nguyễn Kim bỏ chạy vào miền núi Thanh Hóa và sang Ai Lao (Lào). Năm 1533, Nguyễn Kim tìm lập một người dòng dõi nhà Lê là Lê Duy Ninh đưa lên ngôi trên đất Sầm Châu (Ai Lao), tức là vua Lê Trang Tông. Nhà vua lấy Nguyễn Kim làm Thái sư Hưng quốc công trông coi mọi việc trong nước.

Từ khi Trang Tông lên ngôi, nhiều sĩ phu, tướng lĩnh bắt đầu tập hợp bên Nguyễn Kim để chống nhà Mạc.

Sau nhiều lần tổ chức tấn công về Đại Việt không thành công, tới năm 1539, Thái sư Nguyễn Kim chiếm được huyện Lôi Dương ở Thanh Hóa; sang năm sau tiến vào Nghệ An. Nhà Hậu Lê bắt đầu xác lập chỗ đứng trở lại trên lãnh thổ Đại Việt.